Software sollte nicht nur nach technischen, sondern auch nach ethischen Gesichtspunkten gestaltet werden. Dass dies inzwischen nicht nur Expert:innen so sehen, sondern auch viele Praktiker:innen, führt bisweilen zu der ungewollten Konsequenz, dass sich Programmierer:innen der Verantwortung nicht mehr gewachsen fühlen: Laut einer britischen Studie kündigen mehr als ein Viertel aller Entwickler:innen im Bereich der künstlichen Intelligenz ihre Jobs, weil sie negative Konsequenzen für Einzelne oder die Gesellschaft befürchten.
In Deutschland wird das Thema der ethischen Algorithmen von wenigen NGOs vorangetrieben, darunter die Bertelsmann Stiftung und der Think-Tank iRights.Lab. Jetzt legen die beiden gemeinsam einen Praxisleitfaden zu neun Regeln für die Gestaltung algorithmischer Systeme vor. Der Leitfaden namens Algo.Rules richtet sich nach Aussage der Autor:innen in erster Linie an Entwickler:innen und Führungskräfte und soll nicht nur finanzielle Schäden verhindern, sondern auch automatisierte Entscheidungssysteme verbessern und vertrauensvoller machen.
Umfassender Fragenkatalog
Dazu haben die Autor:innen neun Themenfelder formuliert, darunter „Kompetenz aufbauen“, „Verantwortung definieren“, „Beherrschbarkeit absichern“ und „Beschwerden ermöglichen“. Für jedes Themenfeld wird kurz ausgeführt, warum es relevant ist und welche inhaltlichen Perspektiven im eigenen Projekt berücksichtigt werden sollten. Darüber hinaus enthält der Leitfaden weiterführende Links zu methodischen oder wissenschaftlichen Ausarbeitungen zu einzelnen Punkten.
Die Autor:innen machen klar, dass Organisationen, die algorithmische Systeme entwickeln, die Maßnahmen erst für ihre Zwecke anpassen oder den kompletten Leitfaden sofort anwenden können. Anwenden meint in dem Fall vor allem: Die angebotenen Fragen für das eigene Vorhaben durcharbeiten und beantworten.
Denn im Kern arbeitet die Orientierungshilfe mit Fragen, um kritische Punkte bei der Entwicklung von automatisierten Entscheidungssystemen möglichst früh im Arbeitsprozess zu klären. Dazu sind die wichtigsten Perspektiven zu jeder einzelnen der neun Regeln in Checklisten zusammengefasst. Das beginnt bei der Frage, ob alle grundlegenden Begriffe in einem Glossar oder Wiki festgehalten sind, damit sie einheitlich verwendet werden und endet damit, Zuständigkeiten für eingehende Beschwerden festzulegen.
Weitere Publikationen geplant
Nicht jede der insgesamt 145 angebotenen Fragen muss beantwortet werden, machen die Autor:innen des Leitfadens deutlich: Die Arbeit von Entwickler:innen habe zwar gesellschaftliche Auswirkungen, aber nicht immer hätten diese Auswirkungen das gleiche Ausmaß. Während etwa eine automatisierte Kühlung weniger aufwendig geprüft werden müsse, stünden im Fokus der Algo.Rules vor allem solche algorithmischen Systeme, die das Leben von Menschen entscheiden. Wenn es also darum geht, wer Geld, Güter, Chancen oder Freiheiten bekommt, sei die Wirkungsrelevanz als besonders hoch einzustufen und das System wie auch seine Umgebung eingehender betrachtet werden.
Neben dem jetzt veröffentlichten Praxisleitfaden soll bald auch ein Impulspapier dazu erscheinen, welche Verantwortung Unternehmen tragen, die Systeme für automatisierte Entscheidungen entweder entwickeln oder einsetzen. Beide Veröffentlichungen setzen laut den Autor:innen auf Praxistauglichkeit und bieten Orientierungshilfen. Zusätzlich soll eine Handreichung, die sich explizit an den öffentlichen Sektor richtet, noch im Jahr 2020 publiziert werden.